[탐사보도 뉴스프리즘] 딥페이크 음란물 놔뒀다간 'N번방 우후죽순'<br /><br />[오프닝: 이광빈 기자]<br /><br />안녕하십니까. 이광빈입니다. 우리 사회의 문제점들을 진단하고, 지속가능한 사회를 모색하는 뉴스프리즘 시작합니다. 이번주 뉴스프리즘이 풀어갈 이슈, 함께 보시겠습니다.<br /><br />[영상구성]<br /><br />[이광빈 기자]<br />유명 팝스타 얼굴에 음란물을 입힌 '딥페이크'의 확산은 전 세계를 바짝 긴장하게 만들었습니다. 딥페이크 규제에 대한 필요성이 다시금 수면 위로 떠오른 가운데, 관련 업계들도 앞다퉈 대책 마련에 고심 중입니다. 황정현 기자입니다.<br /><br />["스위프트도 당했다"…딥페이크 악용에 전 세계 '발칵' / 황정현 기자]<br /><br />[기자]<br />팝스타 테일러 스위프트의 얼굴을 합성한 딥페이크 이미지는 소셜미디어 엑스(X)를 중심으로 순식간에 퍼져나갔습니다.<br /><br />엑스가 차단에 나서기까지 약 19시간 동안 무려 4천700만 회가량 조회된 것으로 파악됐습니다.<br /><br /><br />거의 모든 (딥페이크의) 적용은 합의되지 않은 음란물에 사용됐습니다. 테일러 스위프트 사건은 몇 년간 계속되어 온 일의 추악한 버전입니다.<br /><br />앞서 배우 톰 행크스도 인공지능으로 만들어진 이미지가 자신도 모르는 사이에 광고에 사용됐다며 주의를 당부했고, 엠마 왓슨과 스칼릿 조핸슨 역시 음란 광고의 주요 피해자로 확인됐습니다.<br /><br />유명인뿐만이 아닙니다.<br /><br />누구나 앱만 설치하면 어렵지 않게 제작할 수 있어 일반인들도 표적이 되고 있습니다.<br /><br /><br />연예인뿐만 아니라 일반 대중, 특히 여성을 대상으로 한 노골적인 합성 이미지는 생성형 AI 플랫폼 도입 이후 문제가 되어 왔습니다.<br /><br />조악하게 제작돼 완성도가 떨어지던 과거와 달리 최근엔 실제와 구분하기 어려울 만큼 자연스러워지면서 AI를 판독해내기가 더욱 힘들어졌습니다.<br /><br />딥페이크 기반의 가짜 뉴스는 선거판에서 정치적 목적으로 악용되거나 전쟁판을 교란시키기도 했습니다.<br /><br />이에 중국은 세계 주요국 중 처음으로 딥페이크 기술을 활용할 경우, 워터마크를 붙여 원본을 추적할 수 있게 의무화하는 등의 포괄적 규제 시행에 들어간 상태입니다.<br /><br />언론의 자유 등에 막혀 주춤했던 미국에서는 스위프트 사건이 기폭제가 되면서 미 정계뿐 아니라 백악관도 나서 규제 필요성을 강조했습니다.<br /><br /><br />매우 우려스러운 일입니다. 문제 해결을 위해 할 수 있는 모든 것을 할 것입니다.<br /><br />유럽연합은 엑스를 첫 소셜미디어 규제법 조사대상에 올리는가 하면, 최근 인공지능 규제법 최종 타협안도 승인했습니다.<br /><br />이번 스위프트 사건의 주 무대로 지목되며 홍역을 치른 엑스는 단속팀을 신설하고 100명을 추가로 채용하는 등 긴장의 고삐를 바짝 죄는 모습입니다.<br /><br />연합뉴스TV 황정현입니다<br /><br />[이광빈 기자]<br />얼마 전 조 바이든 미국 대통령의 목소리와 똑같은 가짜 음성을 활용한 불법 선거 운동 정황이 포착돼 논란이었는데요. 이처럼 선거철을 앞두고 AI를 활용한 가짜뉴스 확산 우려가 높아지면서 한국을 포함해 전 세계적으로 관련 규제를 강화하고 있습니다. 이은정 기자가 보도합니다.<br /><br />[허위정보 생산 우려에…AI 선거운동 금지된 총선 / 이은정 기자]<br /><br />[기자]<br /><br />"이번 화요일 (예비경선에) 투표하는 건 공화당이 원하는대로 트럼프를 후보로 다시 당선시킬 뿐입니다."<br /><br />언뜻 들으면 조 바이든 미국 대통령의 목소리와 똑같은 이 음성, 사실은 AI로 만들어낸 가짜입니다.<br /><br />누군가가 바이든 대통령의 목소리를 교묘하게 흉내낸 AI를 통해 예비경선 투표에 참여하지 말라고 독려한 겁니다.<br /><br />AI를 불법적인 선거 운동 수단으로 악용한 대표적 사례입니다.<br /><br /><br />"안녕하세요. AI 윤석열입니다. 윤석열 후보와 너무 닮아 놀라셨습니까?"<br /><br /><br />"저는 이재명 후보와 같은 모습으로 태어난 AI 이재명입니다."<br /><br />지난 대선에서 선거운동 일환으로 활약했던 AI 윤석열과 AI 이재명.<br /><br />우리나라 선거에서 처음으로 딥페이크 기술을 활용한 캠페인이었는데, 이번 총선에서는 찾아볼 수 없게 됐습니다.<br /><br />선거관리위원회가 지난달 29일부터 딥페이크 영상을 활용한 선거 운동을 금지했기 때문입니다.<br /><br />실제와 구분하기 어려운 조작된 음성으로 유권자에게 불법 선거운동을 할 가능성을 사전에 차단하기 위한 조치입니다.<br /><br />AI 자동 생성 프로그램을 통한 댓글 규제도 강화됩니다.<br /><br />선관위는 전담 모니터링 조직을 확대 편성하고, AI 프로그램을 통한 댓글을 발견하면 즉시 수사기관에 통보한다는 방침입니다.<br /><br />포털 사이트도 감시 체계를 강화합니다.<br /><br />네이버는 총선 관련 기사에 대한 24시간 모니터링팀을 가동하고, 허위정보가 담긴 댓글에 대한 신고 기능을 적용합니다.<br /><br />올해는 각국에서 최소 83개의 선거가 열리면서 세계 인구의 절반 가량인 40억명의 유권자가 투표권을 갖는 '지구촌 선거'의 해로 불립니다.<br /><br />특정 후보의 당선을 막기 위한 악의적인 가짜뉴스가 기승을 부릴 거란 우려가 나오는 이유입니다.<br /><br />선거를 앞두고 허위 정보를 막기 위한 AI 관련 규제를 강화하고 있는 건 한국뿐만이 아닙니다.<br /><br />11월 대선을 앞둔 미국에서도 올해 들어서만 최소 13개 주에서 AI를 활용한 허위 정보의 확산을 방지하기 위한 법안 제정이 추진 중입니다.<br /><br />AI 기술을 악용한 허위 정보 확산을 막아야 한다는 데 전 세계적으로 공감대가 형성되고 있지만, 근본적인 대처 방안에 대해서는 아직 뾰족한 수가 나오지 않고 있습니다.<br /><br />연합뉴스TV 이은정입니다.<br /><br />#AI #인공지능 #딥페이크 #선거<br /><br />[진행자 코너]<br /><br />앞서 리포트를 통해 딥페이크의 발전에 따른 각종 문제들을 짚어봤습니다. 관련 분야 전문가 모시고 좀 더 이야기를 나눠보겠습니다.<br /><br />강정수 미디어스피어스 AI연구소장님 안녕하세요<br /><br /> 딥페이크 기술이 생성 AI 발달로 급속히 발전했다고 하는데요. 발전 수준은 어떤가요. 어떤 작업이 새롭게 가능해진 건가요?<br /><br /> 몇 년 전 N번방 사태로 합성 음란물 문제가 사회적인 관심을 끌기는 했습니다만 뾰족한 대책 마련은 없어 보이는데요. 유명인뿐만 아니라 누구나 피해자가 될 수 있는 상황...